| 廣告聯系 | 簡體版 | 手機版 | 微信 | 微博 | 搜索:
歡迎您 游客 | 登錄 | 免費注冊 | 忘記了密碼 | 社交賬號注冊或登錄

首頁

溫哥華資訊

溫哥華地產

溫哥華教育

溫哥華財稅

新移民/招聘

黃頁/二手

旅游

AI噩夢成真?偷自我繁殖 威脅工程師要爆料外遇

QR Code
請用微信 掃一掃 掃描上面的二維碼,然後點擊頁面右上角的 ... 圖標,然後點擊 發送給朋友分享到朋友圈,謝謝!
美國AI新創公司Anthropic近期分享一起內部測試,指出在某次測試中,最新推出的模型“Claude Opus 4”出現失控狀況,因為這款模型為了避免被停止,竟利用工程師過往的網絡和視訊紀錄,威脅若強制關閉,就要公開工程師外遇的情形,讓研究人員震驚不已。


根據綜合外媒報道,“Anthropic”最新發布的“Claude Opus 4”,為OpenAI、Google及xAI等AI的競爭對手;然而,在近期的一場封閉測試中,“Claude Opus 4”出現了不受控的情形。

因為工程師在某些原因,試圖警告要關閉電源,誰料“Claude Opus 4”,竟然利用該名工程師過往在網上活動紀錄和視訊紀錄,揪出其出軌證據,威脅工程師若拔掉電源,就揭露他對婚姻不忠的行為。


無獨有偶,熱門聊天機器人ChatGPT美國開發商OpenAI的o1,嘗試“把自己下載”至外部伺服器,事後被抓包時,竟還矢口否認。


以上種種情況事件,顯示AI可能已進化到為了達成目的,可以對人類撒謊、算計,甚至勒索威脅開發者,而開發者對其內部運作與行為機制,似乎也漸漸無法完全掌控。




▲AI進化到會撒謊,甚至威脅工程師。(示意圖/翻攝自pexels網站)
點個贊吧!您的鼓勵讓我們進步     無評論不新聞,發表一下您的意見吧
注:
  • 新聞來源於其它媒體,內容不代表本站立場!
  • 猜您喜歡:
    您可能也喜歡:
    我來說兩句:
    評論:
    安全校驗碼:
    請在此處輸入圖片中的數字
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西網為北美中文網傳媒集團旗下網站

    頁面生成: 0.0302 秒 and 5 DB Queries in 0.0019 秒